Làm tướng nhà Bắc Ngụy

Hiếu Khoan trưởng thành vào lúc Tiêu Bảo Dần đang nổi dậy ở Quan Hữu, bèn đến Lạc Dương, xin gia nhập quân tiền phong. Triều đình khen ngợi, lập tức bái làm Thống quân. Hiếu Khoan theo Phùng Dực công Trưởng Tôn Thừa Nghiệp tây chinh, trận nào cũng có công. Được bái làm Quốc Tử bác sĩ, Hành Hoa Sơn quận sự. Khi thị trung Dương Khản làm Đại đô đốc, ra trấn thủ Đồng Quan, cất nhắc Hiếu Khoan làm Tư mã; Khản cho rằng ông có tài, gả con gái cho [2].

Trong những năm Vĩnh An (528 – 530), được nhận chức Tuyên uy tướng quân, Cấp sự trung, sau đó được ban tước Sơn Bắc huyện nam [2].

Trong những năm Phổ Thái (531 – 532), giữ chức đô đốc theo Kinh Châu thứ sử Nguyên Tử Cung trấn thủ Nhương Thành, nhờ công được nhận chức Tích Dương quận thú[2].

Làm tướng nhà Tây Ngụy

Đầu thời Bắc Ngụy Hiếu Vũ Đế, Hiếu Khoan giữ chức đô đốc trấn thủ Tương Thành. Khi Vũ Văn Thái từ Nguyên Châu đến Ung Châu, lệnh cho Hiếu Khoan đi theo quân đội. Thái chiếm được Đồng Quan, Hiếu Khoan lập tức được thụ Hằng Nông quận thú. Năm Đại Thống thứ 3 (537), tham gia đánh bại tướng Đông Ngụy là Đậu Thái, được kiêm Tả thừa, Tiết độ Nghi Dương binh mã sự. Sau đó cùng Độc Cô Tín vào Lạc Dương, được làm Dương Thành quận thú, rồi cùng Vũ Văn Quý, Di Phong tiếp ứng nghĩa quân ở Dĩnh Xuyên, đánh bại tướng Đông Ngụy là Nhiệm Tường, Nghiêu Hùng tại đấy. Hiếu Khoan lại tiến quân chiếm Nhạc Khẩu, hạ Dự Châu, bắt thứ sử Phùng Ung [2].

Năm thứ 4 (538), tham chiến ở Hà Kiều. Vì quân Tây Ngụy thất thế ở trận Hà Kiều, biên cảnh xao động, Vũ Văn Thái bèn lệnh cho Hiếu Khoan giữ chức tướng quân cũ làm Hành nghi dương quận sự. Sau đó được thăng Nam Duyện Châu thứ sử [2].

Năm Đại Thống thứ 5 (539), được tiến tước làm hầu [2].

Năm thứ 8 (542), được chuyển làm Tấn Châu thứ sử. Được tiến thụ Đại đô đốc.

Tháng 8 ÂL năm thứ 12 (546) [3], thay thế Vương Tư Chính trấn thủ Ngọc Bích, kiêm Nhiếp Nam Phần Châu sự. Tháng 9 ÂL [3], Đông Ngụy thừa tướng Cao Hoan vây đánh Ngọc Bích. Cuộc vây thành kéo dài 6 tuần (6 x 10 ngày), quân Đông Ngụy thương vong và bệnh tật mất 4, 5 phần 10, cuối cùng phải rút lui. Cao Hoan trở về không lâu thì mất. Tây Ngụy Văn đế khen ngợi công của Hiếu Khoan, lệnh Điện trung thượng thư Trưởng Tôn Thiệu Viễn, Tả thừa Vương Duyệt đến Ngọc Bích úy lạo thăm hỏi, cho ông thụ Phiêu kỵ đại tướng quân, Khai phủ nghi đồng tam tư, tiến tước Kiến Trung quận công [2].

Năm thứ 2 thời Tây Ngụy Phế đế (553), Hiếu Khoan được làm Ung Châu thứ sử[2].

Năm đầu tiên thời Tây Ngụy Cung Đế (554), Hiếu Khoan giữ chức Đại tướng quân, theo Yên công Vu Cẩn tiến đánh Giang Lăng của Lương Nguyên Đế, chiếm được, nhờ công được phong Nhương huyện công. Sau khi trở về ông được phong làm Thượng thư hữu bộc xạ, ban họ Vũ Văn [2].

Năm thứ 3 (556), Vũ Văn Thái bắc tuần, lệnh cho Hiếu Khoan quay lại trấn thủ Ngọc Bích [2].

Làm tướng nhà Bắc Chu

Bắc Chu Hiếu Mẫn đế lên ngôi (557), Vi Hiếu Khoan được phong làm Tiểu tư đồ [2].

Đầu thời Bắc Chu Minh Đế, ông được làm Tham Lân Chỉ điện học sĩ, khảo sát và hiệu đính văn tịch, đồ thư [2].

Năm Bảo Định đầu tiên (561) thời Bắc Chu Vũ Đế, triều đình đặt Huân Châu, cho rằng Hiếu Khoan có huân công ở Ngọc Bích, lấy ông làm Huân Châu thứ sử [2].

Tháng 9 nhuận năm thứ 4 (564) [3], ông được tiến vị Trụ quốc[2].

Năm Thiên Hòa thứ 5 (570), ông được tiến tước Vân quốc công, tăng thực ấp kể cả khi trước là 1 vạn hộ [2].

Tháng 2 ÂL năm Kiến Đức thứ 4 (575) [3], Hiếu Khoan biết Vũ đế nuôi chí diệt Bắc Tề, bèn dâng sớ trình bày 3 sách lược, được Vũ đế tiếp nạp [2].

Năm thứ 5 (576), Triệu cương Vũ Văn Chiêu soái quân đánh Kê Hồ, cùng đại quân Bắc Chu đang đánh Bắc Tề kết thành thế ỷ giốc, Vũ đế sắc cho Hiếu Khoan làm Hành quân tổng quản, vây đánh Hoa Cốc để tiếp ứng; ông chiếm được 4 thành của Bắc Tề. Đế chiếm được Tấn Châu, lệnh cho Hiếu Khoan quay về Ngọc Bích. Đến khi Vũ đế khải hoàn (577), ghé qua Ngọc Bích, hạ chiếu cho Hiếu Khoan theo xa giá về kinh. Được bái làm Đại tư không, ra nhận chức Duyên Châu tổng quản, tiến vị Thượng trụ quốc [2].

Tháng 2 ÂL năm Đại Tượng đầu tiên (579)[3], ông được nhận chức Từ, Duyện đẳng 11 châu 5 trấn chư quân sự, Từ Châu tổng quản. Tháng 9 ÂL [3], Hiếu Khoan lại làm Hành quân nguyên soái, tấn công vùng Hoài Nam của nhà Trần, chiếm được. Có chiếu xét công, riêng phong cho một con trai của Hiếu Khoan làm Hoạt quốc công[2].

Tháng 5 ÂL năm thứ 2 (580) [3], Bắc Chu Tuyên đế qua đời, phụ chính đại thần Dương Kiên lấy Hiếu Khoan làm Tương Châu tổng quản thay thế Uất Trì Quýnh. Hiếu Khoan dò biết Quýnh thật sự làm loạn, vội bỏ chạy về Lạc Dương. Tháng 6 ÂL, có chiếu lấy Hiếu Khoan làm nguyên soái, đem quân Quan Trung chinh phạt Úy Trì Quýnh. Tháng 10 ÂL, ông khải hoàn về kinh sư[2].

Tháng 11 ÂL năm đó ông qua đời, hưởng thọ 72 tuổi, được tặng Thái phó, 12 châu chư quân sự, Ung Châu mục, thụy là Tương [2].